06

危险不在于人工智能代替我们思考，而在于我们停止独立思考。觉醒的时刻已经到来。教宗良十四世的首部通谕《伟大的人类》（Magnifica Humanitas）强烈呼吁在人工智能时代捍卫人类。它基于一个简单却紧迫的信念：真正的威胁并非技术本身，而是在一个日益被机器塑造的世界中，人类责任感的丧失。

这份文件于5月25日在教宗本人的见证下颁发，遵循天主教社会训导的传统，尤其体现了教宗良十三世的《新事通谕》 （Rerum Novarum）。文件于5月15日签署，恰逢该历史性文献发表135周年。正如《新事通谕》回应了工业革命和工人社会问题，《伟大的人类》（Magnifica Humanitas）也回应了当今的科技革命。人工智能、数字系统和机器人技术正在重塑工作、人际关系乃至知识本身。

该文件呼吁“解除技术的武装”，使其摆脱被形容为“比政府更有影响力”的大型科技公司的控制。文件警告称，一种日益增长的“数字殖民主义”正在将人类生活转化为可供利用的数据，并将信息控制视为当今最紧迫的道德挑战之一。

数字世界中人类尊严面临的压力

从一开始，这篇通谕就将人的尊严置于中心地位。它反复使用了101次“人的尊严”一词和61次“公共利益”一词。通谕指出，这两者都受到强大、普及且日益难以控制的技术的威胁​​。

教宗警告说，这些事态发展有可能构建“一种新型巴贝塔：一个宏伟却不人道的建筑”，在那里，生活受“效率和利润”支配，权力集中在少数全球私人行为者的手中。该文件指出：“因此，我们必须避免‘巴贝塔综合症’，即对利润的盲目崇拜，这种崇拜会牺牲弱者；这种追求统一性的做法会消除差异；这种做法还会假装一种语言，即使是数字语言，也能将一切事物，包括人的奥秘，转化为数据和表现。”

该通谕指出，数字殖民主义是最大的危险之一。系统日益“攫取数据，将个人生活转化为可供利用的信息”。个人经历沦为牟利的原材料。通谕还警告说，数字系统模糊了“真假之间的界限”，使操纵舆论和削弱公众对信息的信任变得更容易。算法日益左右人们的所见所闻，从而催生出新的社会控制形式。

教宗还谈到了技术性失业以及工人可能在缺乏充分保护的情况下被机器取代的风险。他坚持认为，如果经济发展导致排斥，那么这种进步就毫无意义。他呼吁采用更广泛的方式来衡量发展，超越国内生产总值，将人的尊严、工作条件和环境保护纳入考量。他补充说，金融必须服务于发展，而不是成为最终目的。

该通谕还强调了数字权力的集中。大型科技公司如今影响着人们获取信息、在数字空间中的可见性以及参与公共生活的方式。如果没有公众监督，技术就有可能变得不透明、缺乏问责，并完全由私人利益驱动。

数字时代的伦理、和平与真理

该文件的一项关键提议是呼吁“解除技术的武装”。这并非意味着拒绝创新，而是确保技术不被垄断企业控制或用于统治。教宗呼吁加强公共监管、国际合作以及法律框架，以确保技术服务于“每个人的尊严和公共利益”。

工作和家庭生活也是人们关注的焦点。工作仍然是人类尊严的关键要素，但正日益受到自动化的威胁。家庭也被认为十分脆弱，受到数字化压力、经济不安全感以及由技术塑造的不断变化的社会习惯的影响。

通谕中有相当一部分篇幅专门论述战争与人工智能。通谕指出，“正义战争”的概念在数字时代已经过时。它谴责自主武器系统，并强调“任何算法都不能使战争在道德上可接受”。通谕还指出，涉及生死攸关的决定必须始终由人来承担责任。

教宗还警告人们警惕网络战、虚假信息宣传以及利用算法加深社会分裂的行为。为此，通谕呼吁在正义、对话和国际机构改革的基础上实现和平。通谕还强调需要“消除语言的武装”，在公共传播中摒弃仇恨和两极分化。

“让我们摒弃言辞，就能帮助世界解除武装。”

另一个重要主题是真理危机。在当今的数字环境中，信息可能被有权势者操纵。通谕强调，真理并非权势者的私有财产，而是“民主不可或缺的公共福祉”。它呼吁教育应加强批判性思维、规范技术使用，并培养学生辨别真理与操纵的能力。通谕鼓励学校营造安静、反思和深度学习的氛围，以应对持续不断的干扰。

复兴的呼唤

这份文件也转向内部，呼吁教会自身进行革新。它要求进行良心省察，倾听虐待受害者的心声，并消除造成不平等或不公正的制度结构。正义、修复和预防被视为教会使命的重要组成部分。

《伟大的人类》的核心在于呼吁人们在瞬息万变的世界中承担道德责任。它并非否定科技，而是坚持科技必须服务于人类。真正的进步不仅体现在创新上，更体现在正义、博爱和对受造物的关爱上。

通谕以希望和责任作结。它呼吁人类抵制一切将生命简化为数据、效率或控制的企图，转而建设一个植根于尊严、团结和共同福祉的未来。